Sau nhiều năm cử hành các nghi thức mục vụ trên cương vị là một linh mục, ngày 14 tháng 4 năm 1976, Tòa Thánh bổ nhiệm linh mục Giuse Phan Thế Hinh làm Giám mục phó Giáo phận Hưng Hóa, với danh hiệu Giám mục Hiệu tòa Mades. Lễ tấn phong cho vị tân chức được cử hành ngày 14 tháng 11 cùng năm tại Nhà thờ Sơ Tây, với vị chủ phong là Tổng giám mục phó Tổng giáo phận Hà Nội Giuse Maria Trịnh Văn Căn và hai giám mục phụ phong là giám mục chính tòa Hưng Hóa Phêrô Maria Nguyễn Huy Quang và giám mục giáo phận Bắc Ninh Phaolô Giuse Phạm Đình Tụng.[4] Tân giám mục chọn cho mình khẩu hiệu giám mục: Fiat Voluntas Tua (Xin vâng ý Cha).[5]

Với hoàn cảnh khó khăn sau chiến tranh, giáo phận thiếu linh mục, tân giám mục Phan Thế Hinh tiếp tục công việc mục vụ tại Ngô Xá cho đến ngày 17 tháng 10 năm 1977 mới chuyển về Tòa Giám mục tại Sơn Tây.

Trong các buổi làm việc đại hội Hội đồng Giám mục Việt Nam lần thứ nhất diễn ra từ ngày 24 tháng 4 đến ngày 1 tháng 5 năm 1980, giám mục Phan Thế Hinh được bầu chọn giữ nhiệm vụ Chủ tịch Ủy ban Giáo Dân thuộc Hội đồng Giám mục Việt Nam, một trong 3 ủy ban đầu tiên của cơ cấu Hội đồng giám mục.[6] Cùng trong khoảng thời gian này, giám mục Phan Thế Hinh tham gia chuyến đi hành hương Ad Limina cùng các giám mục Việt Nam. Trong chuyến đi này, giám mục Hinh có dịp thảo luận với các giám mục khác và hội kiến giáo hoàng Gioan Phaolô II.

Ngày 14 tháng 11 năm 1985, giám mục Phan Thế Hinh kế nhiệm làm Giám mục chính tòa Giáo phận Hưng Hóa, sau khi Giám mục Hưng Hóa Nguyễn Huy Quang qua đời. Thời kỳ giám mục Hinh đảm nhiệm cương vị giám mục chính tòa, tình hình xã hội chuyển biến làm chính sách tôn giáo cởi mở, giám mục Hinh được pháp có các chuyến thăm mục vụ các giáo xứ.[7] Giáo phận Hưng Hóa thời giám mục Hinh còn khó khăn và tình trạng thiếu linh mục. Tháng 8 năm 1988, giám mục Hinh bắt đầu các chuyến thăm mục vụ tới những giáo xứ khác nhau như: Chiêu Ứng, Đồng Xá, Hà Thạch, Làng Lang, Hiền Quan, Nhân Nghĩa, và những nơi khác trong giáo phận.

Giuse Phan Thế Hinh được ghi nhận là một trong những người hỗ trợ cho Hồng y Giuse Maria Trịnh Văn Căn việc phong Thánh cho Các thánh tử đạo Việt Nam.

Giám mục Phan Thế Hinh cử hành nghi thức phong chức linh mục cho phó tế Giuse Nguyễn Đình Dậu, ở Hán Đà, xã Hán Đà, Yên Bình, Yên Bái. Cùng chủng sinh khác là Gioan Maria Vũ Tất, hiện là giám mục chính toà Giáo phận Hưng Hóa và Giuse Nguyễn Trung Thoại, cùng làm việc tại Toà Giám mục tại Hưng Hoá.